AI失业潮已来，程序员职业是否真的会消失？
近日，随着OpenAI发布突破性的多模态机器学习模型GPT-4o，关于人工智能引发全球性失业潮的报道再次占据各大媒体头条。
国际货币基金组织董事总经理克里斯塔利娜·格奥尔基耶娃博士警告称，随着企业大量采用人工智能技术，全球劳动力市场将遭遇“海啸”，人工智能可能会消灭全球近一半（40%）的工作岗位以及美国和英国等发达经济体一半以上（60%）的工作岗位。
英特尔首席执行官帕特·基辛格上个月表示，人工智能有一天可能会催生单人独角兽公司（估值超过10亿美元的只有一名员工的企业）。如果你认为“单人独角兽”特指脑力工作者中的“卷王“那就大错特错了，因为特斯拉、Figure/OpenAI以及大量中国企业的“具身智能”人形机器人市场已经爆发，未来护理、司机、工人、士兵等体力工作者同样面临失业风险。
目前，业界普遍认为医生、律师、教师、程序员（包括网络安全人才）等知识工作者是AI大潮最先面对失业风险的人群，但事实真的如此吗？
以近年来全球科技行业裁员的重灾区——程序员职业为例，AI确实带来了巨大的编码效率提升，但与此同时，AI也产生了两个极为严重且难以解决的新难题，使其不但无法完全替代人类程序员，甚至会让软件开发/网络安全行业陷入危险境地。这两个问题分别是：
AI屎山。AI编写的代码质量不佳且不安全，比人类编写的代码漏洞多。
AI污染。AI编写的代码已经“决堤”并快速污染在线代码库和搜索引擎（搜索结果）。
AI屎山
根据Veracode最新发布的软件安全报告，AI生成代码的激增将导致安全债务问题恶化并对软件供应链构成重大风险。报告指出：“尽管人工智能为软件开发带来了速度和效率，但在代码安全方面表现不佳，GitHub Copilot生成的代码中有36%存在安全漏洞。”
斯坦福大学的一项研究（论文链接在文末）发现，使用人工智能助手编写的代码比“手工代码”的安全性差很多，而且人工智能工具还会导致用户对其代码中的安全性过于自信。
例如，在SQL注入漏洞测试中，使用AI助手的测试参与者编写的代码安全性明显较差。36%的使用人工智能助手的测试参与者编写了容易受到SQL注入攻击的代码，而不使用AI助手的对照组的比例仅为7%。
不可否认，类似Github Copilot这样的人工智能代码助手能大大提高开发人员的开发效率和生产力，并降低开发技术门槛。然而，缺乏经验的开发人员可能会轻易相信人工智能助手的输出内容，从而引入安全漏洞风险。
Veracode的报告指出，人工智能生成代码更倾向于满足“正确性”而不是安全性，并且在某些情况下，可能会创建无意中使用户感到困惑的代码。
AI污染
如果说AI屎山影响的只是具体项目，那么“AI污染”对整个软件开发生态来说则是灾难性的。所谓AI污染，是指AI生成的劣质代码污染代码库和搜索引擎结果。例如，近日大量开发人员投诉称谷歌搜索引擎的搜索结果被来自Pulumi AI（一种在线人工智能编码问答工具）的AI生成的错误代码“霸榜”。
开发人员Arian van Putten在上周末的社交媒体帖子中写道：“事情发生了。排名第一的谷歌搜索结果居然是Pulumi大语言模型编写的（页面上也包含免责声明），并且凭空捏造了一个不存在的AWS功能。这简直是灾难的开始。”
该问题最早由开发者Pete Nykänen发现，他在2024年3月21日在GitHub Issues报告中指出Pulumi AI代码仓库在某些代码关键词的搜索结果中排名正快速提升：“今天我搜索了各种与基础设施代码相关的关键词，并注意到一个令人担忧的趋势，即Pulumi AI的答案被谷歌抓取并获得较高排名，这种情况在多次搜索中复现，并且随着时间的推移可能会变得更加糟糕。”
其实，AI污染的不仅仅是代码，还包括文字、图片、视频等所有AI可以批量生产/伪造的内容。密码学家布鲁斯施奈尔近日撰文指出，随着生成式人工智能技术的野蛮生长和泛滥，互联网的原生优质内容生态正在被大规模生产的人工智能合成内容充斥和占领，如果互联网巨头不及时采取行动，我们可能会失去我们所知的互联网，并陷入一个由AI生成的垃圾内容主导的黑暗时代。
结论
“AI屎山”和“AI污染”这两大难题意味着，AI消灭一部分初级和重复性开发岗位的同时，将创造大量新的岗位，例如AI开发、AI应用、AI安全、AI监管和治理。此外，软件架构师、系统工程师、DevOps工程师、物联网解决方案架构师、全栈开发人员等高级IT人才的能力和薪酬有望因AI的加持而持续上涨。
总之，对于开发人员来说，这是最坏的时代，也可能是最好的时代。
参考链接：
https://arxiv.org/html/2211.03622v3
https://siaf.ch/en/events/panel-discussion-kristalina-georgieva-thomas-jordan
END
相关阅读